Aujourd'hui, les Deepfakes sont omniprésents. Avec la popularisation de l'IA générative, le nombre de contenus falsifiés sur internet explose. Selon la plateforme d'authentification Sumsub, le nombre de Deepfakes a quadruplé entre 2023 et 2024. En 2024, les Deepfakes représentaient 7 % de toutes les fraudes, de l'usurpation d'identité au vol de compte, en passant par des attaques d'ingénierie sociale complexes. Pour lutter efficacement contre les Deepfakes, Meta...

Avec la prolifération des deepfakes, le nombre de contenus falsifiés sur internet a explosé. Selon la plateforme de vérification d'identité Sumsub, le nombre de deepfakes a quadruplé entre 2023 et 2024, représentant 7% de toutes les fraudes en 2024. Cela inclut diverses formes de fraudes, telles que l'usurpation d'identité, le piratage de compte et des attaques sophistiquées d'ingénierie sociale. Pour relever ce défi, Meta a récemment lancé un nouvel outil de filigrane, Meta Video Seal, destiné à identifier les contenus générés par IA.

Avec la commercialisation de l'intelligence artificielle générative, la quantité de fausses informations en ligne a considérablement augmenté. Selon la plateforme d'authentification Sumsub, le nombre de deepfakes dans le monde a quadruplé entre 2023 et 2024. En 2024, les deepfakes représentaient 7 % de toutes les fraudes, impliquant diverses formes, de l'usurpation d'identité et du piratage de compte aux opérations complexes d'ingénierie sociale. Pour répondre à ce problème, Meta a lancé un nouvel outil, Meta Video Seal, visant à ajouter un filigrane aux vidéos générées par l'IA afin de...

Google a récemment annoncé l'open-source de son outil de filigrane de texte SynthID, conçu pour aider les développeurs à mieux identifier les textes générés par l'IA. Cet outil est désormais accessible au public via la "boîte à outils IA générative responsable" de Google. Pushmeet Kohli, vice-président de la recherche chez Google DeepMind, a déclaré que cette technologie permettrait aux autres développeurs d'IA générative de détecter si une sortie textuelle provient de leurs propres grands modèles de langage (LLM), ce qui les aidera à agir de manière plus responsable.

Microsoft a publié un outil de filigrane numérique, appelé Content Credentials as a Service, visant à protéger les campagnes politiques contre la menace des deepfakes. Cet outil ajoute des métadonnées, notamment la date et le mode de création du contenu, ainsi que l'identité du créateur. Microsoft collabore avec des organisations pour lancer un site web d'informations électorales fiables sur Bing et soutient un projet de loi visant à interdire les fausses publicités politiques générées par l'IA. En plus de l'outil de filigrane numérique, Microsoft fournit une protection en matière de cybersécurité et des conseils sur l'intelligence artificielle, et a mis en place un centre de communication électorale.

SynthID est un outil capable d'ajouter un filigrane invisible aux images générées par l'IA, permettant ainsi de les identifier comme telles. SynthID utilise deux modèles d'apprentissage profond pour générer et détecter le filigrane, résistant à des manipulations courantes comme le recadrage ou la modification des couleurs. DeepMind prévoit d'utiliser SynthID dans un premier temps avec l'IA d'images Google Imagen, avec une potentielle extension à d'autres systèmes en cas de succès.